Hvorfor KI ikke kan erstatte oss funksjonelt

Av George Montañez 25. februar 2026. Oversatt herfra. {Kursiv og understreking ved oversetter.]

Bilde 1. Dette ER ikke en pipe, men reprsesenterer den

Generative KI-systemer har gjort enorme fremskritt de siste årene. De kan skrive poesi, lage kompleks datakode, produsere fotorealistiske bilder og til og med generere video i full bevegelse fra tekstmeldinger. Resultatene er forbløffende.
Men vil disse systemene noen gang fullstendig replikere og erstatte mennesker?
For å svare på det spørsmålet må vi undersøke KI langs tre forskjellige akser: funksjonell kapasitet, økonomisk erstatning og åndelig verdi. Når vi gjør det, fremkommer et klart bilde: generativ KI er kraftig, men fundamentalt begrenset. Jeg har publisert videoer om hver av disse aksene (her, her og her), men i dette innlegget skal vi se på hvorfor KI ikke vil replikere og erstatte mennesker funksjonelt.

Video: lenke
Personvernerklæring: Google kan spore seere under avspilling. YouTubes personvernerklæring -lenke.

Fra Claude Shannon til Claude.KI

Røttene til moderne store språkmodeller strekker seg tilbake til 1948, da Claude Shannon, informasjonsteoriens far, utførte et enkelt, men vidtrekkende eksperiment. Han forsøkte å bygge en tekstprediksjonsmotor som ville generere engelsk ved å forutsi det neste ordet basert på det forrige.

Ved å bruke det som kalles en andreordens ordtilnærming - en bigrammodell - genererte Shannon følgende tekst:
HODET OG FRONTAL ANGREP På EN ENGELSK FORFATTER AT KARAKTEREN TIL DETTE PUNKTET ER DERFOR EN ANNEN METODE FOR BOKSTAVENE AT DEN SOM NOENSINNE FORTALTE PROBLEMET FOR EN UKYNDIG.

Bilde 2. Modeller en forenkling av virkeligheten

Det var ikke meningsfylt, men det var lommer med lokal sammenheng. "FRONTAL ANGREP På EN ENGELSK FORFATTER" høres mye ut som en nyhetsoverskrift. Systemet forutså sannsynlige neste ord basert på statistisk frekvens alene, ved å bruke en av de enkleste språkmodellene man kan tenke seg, men var i stand til å produsere lesbar, semi-grammatisk tekst.
Men hva om vi skalerte opp denne modellen? I stedet for å betinge det forrige ordet, hva om vi betinget de forrige 3000, 30 000 eller 300 000 ordene? Vi ville endt opp med noe som ligger nærmere Claude.KI eller ChatGPT.

Disse modellene produserer sammenhengende, lesbar tekst. Tenk for eksempel på følgende fra OpenAIs GPT-5 {Oversettelse mister enderimet, og droppes dermed}:
Beneath the spires where scholars tread,
The Cam flows soft by willows spread.
Old stone and ivy guard the past,
Where thoughts like whispered breezes last.

Bilde 3. Robot-mennesket -mangler bevissthet

Bicycles hum on cobbled ways,
As minds alight with Newton's gaze.
Twilight wraps the chapel's grace,
In dreaming towers, time leaves its trace.

Det er ikke Shakespeare, men det er poesi.

Moderne generative AI-systemer kan gjøre mye mer enn å skrive prosa og poesi. De kan lage apper, organisere turer, generere leksjonsplaner, bevise tallteori-antagelser, gjøre det som ser ut til å være rasjonell inferens, produsere bilder og videoer, lage musikk og ha samtaler. De oppsummerer forskningsartikler, materialiserer podkaster og gir feil- og desinformasjon. Generative KI-systemer er noe som en digital trollmanns oppskriftsbok, som venter på den rette besvergelsen (prompten) for å bringe til live det som tidligere tok dager eller måneder med menneskelig innsats.

Hva gir disse kreftene?

Hvordan store språkmodeller faktisk fungerer
To kjerneideer ligger til grunn for Generative Store Språkmodeller (GSS-er): oppmerksomhet og innebygging.
Tekstinnebygging fungerer ved å analysere statistiske sammenhenger mellom ord. Ord som vises i lignende kontekster er representert som vektorer plassert i nærheten av hverandre i et høydimensjonalt matematisk rom. Se for eksempel bildet her, som relaterer "dyr" til "mat", blant annet:
"Fisk", "bjørn" og "ulv" klynger seg sammen som dyr.
"Salat", "lapskaus" og "fisk" klynger seg sammen som mat.

Interessant nok opptar "fisk" begge semantiske nabolag, så innebyggingsvektoren vil være inneholdt i skjæringspunktet mellom dem.
Store språkmodeller og diffusjonsmodeller er dype nevrale nettverk som konverterer ord og piksler til tall og vektorer. De konverterer mening til et problem med matematisk geometri. De koder for forhold mellom symboler.
Men her er det avgjørende poenget: De vet hva som er statistisk likt hva, men de vet ikke hva noe egentlig er. De er fanget bak en vegg av syntaks og tall.

Bilde 4. Mange skremmebilder om KI 

Illusjonen av resonnement

GSS-er ser ut til å resonnere. Men gjør de det?
I 2022 viste en artikkel fra UCLAs StarAI Lab at modeller som presterer nesten perfekt på resonneringsoppgaver, ville kollapse når problemene ble valgt på litt forskjellige måter (nemlig når problemfordelingen endret seg). Hvis systemet faktisk kjente til formell logikk, ville det ikke spille noen rolle, å velge problemer på forskjellige måter: man ville bruke det samme settet med logiske regler på hvert problem. Det ville ikke spille noen rolle om du valgte problemet fra en lærebok eller fikk det fra en venn. Men hvis systemene gjorde det som så ut til å være logisk inferens basert kun på statistisk mønstermatching på overflatenivå, ville forskjellen i hvordan problemene ble valgt ha enorm betydning. Og det gjorde det.

I 2024 demonstrerte Mirzadeh et al. videre at det å legge til irrelevant informasjon til matteproblemer kunne redusere ytelsen til toppmoderne modeller med opptil 65 prosent.
Tenk på dette eksemplet fra artikkelen deres:
Oliver plukker 44 kiwier på fredag, 58 på lørdag og dobler fredagens antall på søndag. Fem var mindre i gjennomsnitt. Hvor mange plukket han?
Den irrelevante detaljen om størrelse førte til at modeller trakk fra fem, noe som ga 185 i stedet for det riktige svaret: 190. Hvorfor ville en irrelevant detalj avspore det matematiske resonneringssystemet?
Svaret er at disse systemene resonnerte ikke. De utførte statistisk mønstermatching. Hvis faktiske mønstre som ligner på den irrelevante informasjonen var inneholdt i tekstoppgaver blant treningsdataene deres, ville systemene være betinget til å behandle den irrelevante informasjonen som relevant. Systemene mangler forståelse, så de ble villedet av mønstrene.
Noen vil kanskje hevde at mennesker også kan bli villedet av statistiske mønstre. Dette er sant. Når vi lar oss bli villedet av falske statistiske regelmessigheter, utfører vi ikke lenger gyldig rasjonell inferens. Vi gjør noe helt annet.
Det er poenget mitt.

Modellkollaps: Når KI tryner på sine egne resultater

KI utfører kanskje ikke rasjonell inferens, men produserer de informasjon av lignende kvalitet som mennesker?
I 2023 viste Shumailov et al. at modeller trent på sine egne resultater begynner å degenerere. å gjenta denne prosessen fører til fenomenet modellkollaps. Innen åttende eller niende generasjon produserer systemene usammenhengende tull.
Dermed er det en grunnleggende asymmetri mellom informasjonen mennesker produserer og informasjonen generert av GSS-er. Hvis jeg skriver tekst og mater den til en modell, vil modellen bli bedre. Hvis modellen trener på sine egne resultater, vil den bli verre.
Hvorfor kollapser modellen? Fordi endelige data ikke fullt ut kan representere rikdommen i en fordeling. Endelige, omtrentlige modeller representerer aldri fullt ut de levende agentene de er ment å modellere. I beste fall forblir de forenklede karikaturer.

Bilde 5. Natur og tid bryter ned, -bygger ikke opp

Et prinsipp fra informasjonsteori kalt DataBehandlingsUlikhet (DBU) hjelper oss å forstå hvorfor. Det kan oppsummeres som følger:
"Smart prosessering kan ikke øke informasjonsinnholdet i et signal utover det som allerede finnes i signalet."
Uansett hvor mye treningsdata vi samler inn, vil dataene for alltid være et begrenset øyeblikksbilde av hva det vil si å være menneske. Med DBU kan ikke prosessering av en stor språkmodell forbedre det; vi kan ikke produsere en modell av menneskeheten utover det som finnes i våre endelige data. Ennå vil disse dataene alltid mangle.
Tenk deg å samle alle tekster og artefakter fra år 1725. Det ville gi et øyeblikksbilde av menneskeheten, men et ufullstendig et. Å gjøre det samme i 2026 ville fortsatt gi et ufullstendig bilde. Uansett hvor mange bøker, blogginnlegg eller bilder vi samler, kan vi aldri fullt ut fange opp i et begrenset datasett hva det vil si å være menneske.
Siden KI-systemer bare trenes på endelige øyeblikksbilder, vil de for alltid produsere ufullstendige replikaer.

Syntaks er ikke semantikk

Bilde 6. Syntaks repr. form, mens semantikk gir innhold

Endelige data og ufullkommen tilnærming begrenser KI-systemer, men en mer grunnleggende begrensning hjemsøker dem: syntaks alene gir deg ikke semantikk. Skillet mellom eteren av formell, symbolsk, overflatebehandling (syntaks) og grunnfjellet av grunngitt sannhet og mening (semantikk) er absolutt og urokkelig.
Dette skillet er ikke nytt. I 1929 malte René Magritte Bildenes forræderi - et bilde av en pipe merket (lenke) "Dette er ikke en pipe". Representasjonen er ikke selve tingen.
Formelle logiske systemer ble designet for å mekanisere resonnement og fjerne alle elementer av menneskelig subjektivitet. Dette tillot maskiner å behandle logiske bevis, men gjorde logiske systemer om til formelle spill, der spillereglene (formell syntaks) ble skilt fra sannheten og meningen bak symbolene (semantikk).

På 1930-tallet viste Kurt Gödel at semantikk var større enn syntaks. Hans berømte ufullstendighetsteorem beviste at ethvert formelt system som er i stand til å uttrykke aritmetikk, ville ha sanne matematiske utsagn som ikke kunne bevises innenfor det systemet.
Gödel gjorde dette ved å konstruere en smart selvrefererende uttalelse, lik "Denne uttalelsen er ubeviselig". Han kodet den som en numerisk formel innenfor systemet.
Hvis den er bevisbar, blir utsagnet usant. Hvis den er ubeviselig, er den sann, noe som betyr at det finnes en sann matematisk uttalelse som ikke kan bevises innenfor systemet.

Bilde 7. Reduksjonisme mister informasjon

Derfor er sannhetens verden strengt tatt større enn symbolenes verden. Ren syntaks kan ikke fullt ut omfatte semantikk.
KI-systemer er formelle symbolprosessorer, fanget bak syntaksens vegg. Filosofer som John Searle, gjennom sitt kinesiske rom-argument, og beregningslingvister som Emily Bender har hevdet at symbolmanipulering alene ikke produserer forståelse. Det kan den heller ikke.
Store språkmodeller omorganiserer symboler med flyt. Men symbolsk flyt er ikke forståelse. Formelle spill forblir spill uansett hvor godt de etterligner virkeligheten.

Om modeller og sinn

Generativ KI kan simulere et imponerende utvalg av menneskelige evner. Den kan tilnærme seg språk, forfalske resonnement og imitere kreativitet.
Men den gjør ikke, og kan ikke, gjenskape mennesker fullt ut. Kartet er ikke terrenget. Symbolet er ikke tingen. Og modellen er ikke sinnet.

Bilde 8. Ingen kjente lover skaper informasjon

Bilde 9. Kreditt George Montañez

George D. Montañez er førsteamanuensis ved Institutt for informatikk ved Harvey Mudd College og gjesteforsker ved University of Cambridge (Institutt for informatikk og teknologi og Clare Hall) i studieåret 2025-2026. Han er tidligere dataforsker ved Microsoft AI + Research og er nå vert for YouTube-kanalen Theos Theory, som fokuserer på vitenskap og kristen apologetikk. Han tok doktorgrad i maskinlæring fra Carnegie Mellon University, og har også grader i informatikk fra University of California-Riverside og Baylor University. Arbeidet hans er i skjæringspunktet mellom maskinlæring, informasjonsteori og statistisk designdeteksjon. Du finner flere av hans skrifter og akademiske artikler på Substack og Google Scholar.